Tháng 7 năm 1357, Étienne Marcel nhân danh thành phố mua lại "maison des piliers" và từ đấy dựng lên trung tâm hành chính của Paris. Trước đó, thế kỷ 13, hội đồng hành chính Paris được đặt ở "Parloir aux Bourgeois" nằm gần Châtelet và đầu thế kỷ 14 ở đồi Sainte-Geneviève.

Đến thế kỷ 16, tòa nhà "maison des piliers" được thay thế bằng một cung điện do Boccador, kiến trúc sư người Ý thiết kế. Công việc xây dựng bắt đầu năm 1533 và hoàn thành vào năm 1628. Sau đó công trình còn được mở rộng thêm từ 1836 đến 1850, vẫn giữ nguyên mặt trước theo phong cách Nghệ thuật Phục Hưng.

Tòa nhà bị những người của Công xã Paris đốt cháy vào tháng 5 năm 1871. Sở lưu trữ thành phố cũng chung số phận. Trong khoảng thời gian 1874 tới 1882, tòa nhà mới được xây dựng theo thiết kế của hai kiến trúc sư Théodore Ballu và Édouard Deperthes. Mặt trước của công trình theo lối Phục Hưng được xây lại như cũ.

Quảng trường Grève phía trước tòa thị chính được đặt tên lại là quảng trường Hôtel-de-Ville ngày 19 tháng 3 năm 1803 và trở thành một không gian dành riêng cho người đi bộ từ năm 1982.

Trong rất nhiều các cuộc nổi dậy ở Paris, tòa thị chính thường xuyên là địa điểm tập hợp của những người khởi nghĩa. Với các sự kiện Cánh mạng 1830 và 1848, Công xã Paris năm 1871 cho tới giải phóng trong Thế chiến thứ hai, tòa thị chính là một địa điểm lịch sử quan trọng.